Effendi merupakan adik kepada Roestam Effendi, seorang penyair komunis bersimpati dilahirkan pada tahun 1903.[1] Keluarga mereka berasal dari Padang, Sumatera Barat, walaupun meninggalkan Padang untuk pendidikan mereka.[1] Effendi berhenti sekolah menengah atas – satu tahap persekolahan sudah lebih daripada kebanyakan kanak-kanak asli diterima – dan bukannya menjadi seorang pelajar undang-undang sebagai ibu bapa yang dimaksudkan beliau menjadi buruh di Tan's Film, bekerja dalam hiasan.[2]

Effendi berlakon dalam peranan lakonan pertamanya pada tahun 1930 dengan Si Ronda. Beliau kemudian menjadi Penolong Pengarah Melati van Agam (1931), dengan mengambil peranan lakonan yang kecil. Beliau mengarahkan filem pertamanya, Njai Dasima, pada tahun 1932, menjadi pengarah pertama asli Indonesia filem di Hindia.[2] Selepas itu beliau meninggalkan Tan untuk menggantikan Andjar Asmara sebagai ketua pengarang Doenia Filem, majalah filem berbahasa Melayu.[2]

Effendi menyertai rombongan teater Dardanella pada tahun 1936, bekerja sebagai seorang pelakon.[2] Andjar berkhidmat sebagai seorang dramatis.[3] Pada tahun 1936 kedua-dua meninggalkan Dardanella untuk menubuhkan kumpulan Bollero, [2] dan kadangkala kemudian Effendi berkahwin dengan Suhara, kakak kepada isteri Andjar, Ratna.[4] Selepas Andjar meninggalkan kumpulan itu pada tahun 1940 untuk bekerja untuk Java Industrial Film milik The Teng Chun,[3] Effendi kekal sebagai pemimpin Bollero,[2] yang menjadi semakin dipolitikkan dan vokal terhadap rasuah yang berleluasa pada masa itu.[5] Pada masa ini beliau berkahwin Zuhara.[6]